Мета за добавяне на етикет „генериран от AI“ към изображения, създадени с OpenAI, Midjourney и други инструменти
Meta казва, че работи за идентифициране и етикетиране на изображения, генерирани от AI, споделени на нейните платформи, които са създадени от инструменти на трети страни, докато компанията се подготвя за изборния сезон през 2024 г. на фона на разпространението на инструменти за изкуствен интелект, които заплашват да замърсят информационната екосистема.
През следващите месеци Meta ще започне да добавя етикети „генерирани от AI“ към изображения, създадени от инструменти на Google, Microsoft, OpenAI, Adobe, Midjourney и Shutterstock, каза президентът на Meta Global Affairs Ник Клег в публикация в блог във вторник. Meta вече прилага подобен етикет „въобразено с AI“ към фотореалистични изображения, създадени със собствен инструмент за генериране на AI.
Клег каза, че Meta работи с други водещи фирми, разработващи инструменти за изкуствен интелект за прилагане на общи технически стандарти - по същество определени невидими метаданни или водни знаци, съхранени в изображенията - които ще позволят на системите му да идентифицират генерирани от AI изображения, направени с техните инструменти.
Етикетите на Meta ще се разпространяват във Facebook, Instagram и Threads на множество езици.
Съобщението на Meta идва в момент, когато експерти по онлайн информация, законодатели и дори някои технически ръководители алармират, че новите AI инструменти, способни да създават реалистични изображения - съчетани със способността на социалните медии бързо да разпространяват съдържание - рискуват да разпространяват невярна информация, която може да подведе гласоподаватели преди изборите през 2024 г. в Съединените щати и десетки други страни.
Това идва и ден след като собственият Надзорен съвет на Meta заклейми „непоследователната“ манипулирана медийна политика на компанията в решение, свързано с променено видео на президента на САЩ Джо Байдън. Президентската кампания на Байдън в понеделник нарече политиката „безсмислена и опасна“ в изявление за CNN, в отговор на констатациите на Надзорния съвет. Meta каза в понеделник, че ще прегледа препоръките на борда и ще отговори в рамките на 60 дни.
Във вторник Клег призна важността за потребителите на ясно етикетиране на изображения, генерирани от AI.
„Хората често се натъкват на генерирано от AI съдържание за първи път и нашите потребители ни казаха, че оценяват прозрачността около тази нова технология“, каза Клег в публикацията.
„Прилагаме този подход през следващата година, през която се провеждат редица важни избори по света“, каза той. „През това време очакваме да научим много повече за това как хората създават и споделят AI съдържание, какъв вид прозрачност хората намират за най-ценен и как се развиват тези технологии.“
Новите индустриални стандартни маркери, които ще позволят на Meta да маркира изображения, генерирани от AI, все още няма да бъдат включени във видеоклипове и аудио, генерирани от изкуствен интелект.
Засега Meta казва, че внедрява функция, която ще позволи на потребителите да идентифицират кога видео или аудио съдържанието, което споделят, е генерирано от AI. От потребителите ще се изисква да приложат разкриването за реалистично видео или аудио, което е „дигитално създадено или променено“ и могат да бъдат наказани, ако не го направят, каза Клег.
Той добави, че ако дигитално създадено или променено изображение, видео или звук „създава особено висок риск от материална измама на обществеността по важен въпрос“, компанията може да добави по-забележим етикет.
Meta също работи, за да попречи на потребителите да премахват невидимите водни знаци от изображения, генерирани от AI, каза Клег.
„Тази работа е особено важна, тъй като има вероятност това да стане все по-противническо пространство през следващите години. Хората и организациите, които активно искат да измамят хората с генерирано от AI съдържание, ще търсят начини да заобиколят предпазните мерки“, каза той. „Важно е хората да вземат предвид няколко неща, когато определят дали съдържанието е създадено от AI, като проверка дали акаунтът, който споделя съдържанието, е надежден или търсене на подробности, които може да изглеждат или звучат неестествено.“
